AI安全新漏洞：一首诗就能攻破顶级大模型？
AI安全新漏洞：一首诗就能攻破顶级大模型？如果你想恶意攻击一个大语言模型（LLM），比如 Gemini 或者 Deepseek，你会怎么做？
来自主题: AI资讯
5326 点击 2025-11-24 10:44
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
如果你想恶意攻击一个大语言模型（LLM），比如 Gemini 或者 Deepseek，你会怎么做？
ChatGPT发布距今已近36个月，面对OpenAI的领先，哈萨比斯带领谷歌AI全面反攻，通过新发布的Gemini 3强势回归。Gemini 3在LM Arena等多个模型榜单登顶，表现优于GPT-5及其他模型，上演了一场完美逆袭。
Gemini 3一日霸榜数学、物理两个顶级基准测试！与此同时，陶哲轩用Gemini DeepThink十分钟便搞定了一道埃尔德什难题。
前 OpenAI 联合创始人、特斯拉 AI 总监 Andrej Karpathy 也一样。他在前几天发推，说自己「开始养成用 LLM 阅读一切的习惯」。Karpathy 在周六用氛围编程做了个新的项目，让四个最新的大模型组成一个 LLM 议会，给他做智囊团。
前沿AI竞赛在2025年11月达到高潮。48小时内，谷歌推出Gemini 3 Pro宣称在主要推理基准测试中领先，而OpenAI立即用GPT-5.1-Codex-Max反击，这是一款专门训练用于通过创新"压缩"（compaction）技术自主工作超过24小时的专业编码模型[43]。加上Claude Sonnet 4.5已确立的编码统治地位和激进的安全过滤器，开发者面临前所未有的选择：
谷歌乘胜追击！Gemini 3 Pro好评如潮没两天，最强文生图模型Nano Banana也推出Pro版本。
Gemini 3 Pro刚炸完，谷歌又在深夜扔出了「AI图像新神」Nano Banana Pro！它用像素级的恐怖细节和完美的汉字渲染告诉世界，谁才是AI生图真正的王者。
Gemini 3力压全场，OpenAI坐不住了。发布Codex新版本——GPT-5.1-Codex-Max，突破上下文窗口限制，实现跨越数百万token的长时间连续工作，最长超过24小时的那种。
Google昨天伴随Gemini3.0pro一同发布了他们的AI IDE产品Antigravity《与Gemini 3.0一起发布的AI IDE「Antigravity」究竟有多厉害？》。其震撼性的三位一体全流程Agent体验让无数开发者直呼“Cursor危险了”。
芜湖，才刚发布一天，Gemini 3 Pro就被网友们玩出花，那脑洞一个比一个大！